Tháng 1 ÂL năm 402, Tư Mã Nguyên Hiển chính thức dẫn quân thảo phạt Hoàn Huyền (con trai danh tướng Hoàn Ôn) ở Kinh châu, lấy Lưu Lao Chi làm Tiên phong đô đốc, và Tư Mã Thượng Chi làm tiền phong, con ông là Tư Mã Văn Trọng làm Ninh Viễn tướng quân, Tuyên Thành nội sử[12], lệnh đưa quân theo đường sông tiến vào Kinh châu. Hoàn Huyền biết tin, truyền hịch kể tội trạng của Tư Mã Nguyên Hiển rồi tiến về Cô Thục, giao chiến với quân đội của Tư Mã Thượng Chi. Ông ta phái Phùng Cai tiến công Lịch Dương, giao chiến với thủy quân của Thượng Chi. Thuyền chiến của Thượng Chi bị thủy thủ của Hoàn Huyền đục hỏng. Ông bèn dẫn 9000 quân bộ tiến đến bố trận ở Phó Thượng và phái Thái úy Vũ Đô Dương Thu lập đồn bên bờ sông, tuy nhiên Dương Thu lại đầu hàng Hoàn Huyền. Quân đội của ông cũng hoang mang dao động, bị đánh tan tách. Tư Mã Thượng Chi bỏ chạy một mình đến Đồ Trung và ở đó hơn 10 ngày. Mười mất ngày sau, có người ở Tiếu quốc là Hàn Liên và Đinh Nguyên tố giác hành tung của ông với Hoàn Huyền, Hoàn Huyền bèn phái quân đến bắt Tư Mã Thượng Chi[13].

Hoàn Huyền nhanh chóng tiến binh vào Kiến Khang, đánh tan quân Tấn và làm chủ kinh đô. Ông ta ra lệnh xử tử Tư Mã Thượng Chi và các trọng thần Tư Mã Nguyên Hiển, Dữu Giai, Trương Pháp Thuận, Mao Thái... Sau Huyền lấy cớ Tề Mẫn vương thời Chiến Quốc tuy vô đạo nhưng không tuyệt tự, bèn lập em Thượng Chi là Khang Chi lên thay chức Tiều vương[14].　 Năm 404, Hoàn Huyền thua trận bị giết, An Đế trở lại làm vua, ra lệnh truy tặng Thượng Chi làm Vệ tướng quân, thụy là Trung vương và lập Tư Mã Văn Tư, con của Tư Mã Hưu Chu em trai Thượng Chi làm Tiều vương. Về sau Hưu Chi và Văn Tư bị Lưu Dụ đánh bại, bỏ sang nhà Bắc Ngụy[15].